Бумът на AI стимулира търсенето на технология за охлаждане на сървъри

Пазарът на изкуствен интелект не е единственото нещо, което се загрява. Същото важи и за чиповете и сървърите, които зареждат авангардната технология, стимулирайки търсенето на по-ефективни решения за изстудяване.

Тайванската Liteon Technology е един от няколкото производители на съставни елементи, които усилват напъните си за създаване на решения за течно изстудяване за AI центрове за данни, защото потреблението на сила се обрисува като едно от най-неотложните спънки за повишение на изчислителната продуктивност.

„ Има доста топлота, която би трябвало да бъде позволена [с AI центрове за данни] “ и обичайните решения за въздушно изстудяване са не е задоволително кадърен, сподели Саймън Онг, асоцииран вицепрезидент на платформата и решенията за облачна инфраструктура на Liteon, пред Nikkei Asia. „ [Необходимостта от] по-сложна технология за изстудяване за справяне с топлината, генерирана от системите, е неудържима. “

Центровете за данни с изкуствен интелект работят на мощни чипове за графични процесори от Nvidia и Advanced Micro Devices. Тези чипове могат да се оправят с паралелни изчислителни интервенции, които са нужни за активиране на генеративни AI приложения като ChatGPT на OpenAI и Bard на Гугъл.

Но техните условия за мощ нарастват внезапно, от 400 вата за чипа A100 на Nvidia до 700 вата за своя чип H100. Следващото потомство B100 ще употребява 1000 вата електричество на чип – повече от четири пъти повече от предстоящата мощ, нужна за работа на 240-ватов MacBook Air за осем часа.

Тази публикация е от Nikkei Asia, световен обява с неповторима азиатска позиция към политиката, стопанската система, бизнеса и интернационалните връзки. Нашите лични репортери и външни коментатори от цялостен ​​свят споделят своите възгледи за Азия, до момента в който нашата секция Asia300 дава задълбочено отразяване на 300 от най-големите и най-бързо разрастващи се регистрирани компании от 11 стопански системи отвън Япония.

Абонирайте се | Групови абонаменти

Експлозивното търсене на графични процесори H100 на Nvidia за образование на AI модели оказа помощ да се насочи вниманието към промишленостите за зареждане и топлинни решения, които преди бяха обсъждани като периферни области на веригата за доставки.

Тъй като потреблението на сила на чипа нараства, генерираната топлота се трансформира в сериозно тясно място. Температурата директно въздейства върху продуктивността на чипа и затова изисква по-сложни решения за изстудяване от преди. Традиционното въздушно изстудяване, което употребява основно вентилатори и тръби, не е в положение да реши казуса с възходящата топлота в AI сървърите, съгласно специалисти от промишлеността.

Освен това технологиите за изстудяване са сериозни за операторите на центрове за данни, с цел да поддържат успеваемост при ниско ползване на сила — или PUE, мярка за това какъв брой енергийно ефикасен е един център за данни — до момента в който софтуерната промишленост се надпреварва да реализира чисти нулеви излъчвания.

Новите технологии за изстудяване включват течно изстудяване, което включва система от вода, която тече към сървър за по-ниски температури, и технология за потапяне, при която цяла сървърна стойка е потопена в непроводима течност.

Liteon, снабдител на Apple, HP и Dell и значим състезател в захранващи и топлинни решения за инфраструктура на центрове за данни, се стреми да затвърди позицията си в решенията за течно изстудяване.

Други компании, които усилват напъните си в тази област, включват доставчиците на термичен надзор Delta Electronics, Cooler Master Technology и Auras Technology. Дори производители на чипове като Intel и сървърни систематични интегратори като Giga-Byte Technology, Inventec и Wiwynn отделят запаси за създаване на новаторски технологии за изстудяване.

Според Liteon стандартните способи за изстудяване не дават отговор на предизвикването на AI. Компанията сподели, че е провела сравнителни проби на два комплекта чипове, употребявайки разнообразни термични решения.

„ Открихме, че чиповете, употребяващи способи за въздушно изстудяване, могат да доближат единствено 60 % от своята продуктивност и ще имат избрани опасения от прегряване, до момента в който решенията за течно изстудяване могат да продължат да покачват изчислителната продуктивност до нейната оптимизация, ” сподели Онг. „ Ако чиповете са прекомерно горещи, те в никакъв случай няма да работят толкоз дейно и мощно, колкото работят в допустима среда. “

Онг сподели, че операторите на центрове за данни могат да поддържат ниски температури с стандартни способи, като усилят размера на охлаждащи ребра в сървърната стойка, само че добави: „ Искате ли сървърна стойка, цялостна с охлаждащи ребра или цялостна с чипове в толкоз лимитирано пространство? Разбира се, ние желаеме още по-голяма изчислителна мощ. “

В бъдещето на AI изчисленията „ новите технологии за течно изстудяване ще бъдат доста значимо решение, а не актуалните всеобщи топлинни решения, които употребяват въздух за разпръскване на топлината, които са по-евтини, само че доста по-бавно охлаждат повърхността “, сподели той.

Крис Уей, промишлен съветник към Института за пазарно разузнаване и консултиране, сподели, че AI сървърите са оборудвани с повече централни процесори и графични процесори от обичайните сървъри и че тяхната по-висока консумация на сила подтиква натиска за надграждане на съществуващи съставни елементи и технологии, като изстудяване и зареждания.

„ Консумацията на сила на AI сървър нарушава границата на технологиите за въздушно изстудяване на 300 вата, стимулирайки търсенето на по-сложни и ефикасни технологии за изстудяване, като водно или течно изстудяване, ” сподели Уей пред Nikkei Asia. през 2023 година, сподели Уей, добавяйки, че MIC предвижда проникването на AI сървъри да нарасне от 12,4 % от цялата промишленост предходната година до 20,9 % до 2027 година

A от тази публикация е оповестена за първи път от Nikkei Asia на 31 януари. © 2024 Nikkei Inc. Всички права непокътнати.

Свързани истории

Ловът за бъдещи спечелили в AI се разгаря измежду сезон на софтуерните облаги

Университетите в Токио, Сеул и Чикаго в договорка за квантов компютър

Капацитетът на VC за финансиране на започващи компании в Япония скочи до рекордните $9,7 милиарда

Intel се удвоява спад в леярната, защото изкуственият разсъдък усилва търсенето

AT&S ще стартира произвеждане на субстрат за чипове в Малайзия тази година